AI: твърде много информация?

Няколко месеца преди рухването на Берлинската стена през 1989 година Роналд Рейгън направи смела прогноза: „ Голиатът на тоталитарния надзор “ скоро ще бъде свален от „ Давид на микрочип ”. „ Информацията е кислородът на модерната ера “, сподели някогашният президент на Съединени американски щати пред аудитория в Лондон. „ Процежда се през стените, покрити с бодлива тел, носи се през електрифицираните граници с клопки. Бриз от електронни лъчи духа през желязната завеса, като че ли е дантела. 

В прочут смисъл тази техно-оптимистична преценка беше здрава: руската империя скоро се разпадна под тежестта на личната си дезинформация. Но за историка и футуриста Ювал Ноа Харари предсказанието на Рейгън също капсулира „ наивния мироглед за информацията “, който остава също толкоз съвременен през днешния ден, само че е обезпокоително неправилен. 

Простото уравнение, че повече информация автоматизирано основава по-отворени и проспериращи общества, е както илюзия, по този начин и неисторично, съгласно Харари. Разпространението на информация може да е от значително значение за откриването на справедлива и научна истина, само че също по този начин може да бъде употребявано за налагане на публичен ред - или разпалване на вълнения. Това, което има значение, са методите, по които приготвяме и обработваме тази информация, работата на осведомителните мрежи. Всеки смарт телефон съдържа повече информация от античната Александрийска библиотека, само че това не е направило човечеството пропорционално по-умно. Информационните мрежи могат да популяризират както мечти, по този начин и обстоятелства.

Китай също демонстрира, че микрочипът може да даде мощ на Голиат, както и на Давид. Желязната завеса беше сменена от Силиконовата завеса, защото нововъзникващата международна суперсила построи страхотна защитна стена към личния си информативен домейн, с цел да поддържа реда. Пекин може също по този начин да употребява по-отворените осведомителни мрежи на своите демократични съперници. И човечеството към момента води войни, опустошава планетата и неразумно създава технологии, които могат да унищожат цивилизацията. „ С цялата тази информация, циркулираща със спираща дъха скорост, човечеството е по-близо от всеки път до самоунищожението “, написа той.

В Nexus израелският публицист изследва историята и бъдещето на тези осведомителни мрежи. Както в своите бестселъри Sapiens и Homo Deus, Харари се състезава през доста епохи човешки опит, като сортира образци в поддръжка на тезата си. Понякога неговите причини са толкоз необятни, че значими детайлности и всички нюанси се замитат. Но читателите ще продължат да се любуват на интелектуалното пътешестване, даже и да не са изцяло уверени от тезата му и разтревожени от заключението му.

Харари признава, че по-изобилната информация е довела до забележителен прогрес в доста области, само че той съзнателно омаловажава тези достижения, тъй като те бяха толкоз мощно разгласени от футуристи от Западния бряг като Рей Кърцвейл, чиято неотдавнашна книга The Singularity Is Nearer преповтаря своята визия за сливането на хората и технологиите. Вместо това Харари се концентрира върху по-тъмните разновидности на нашите осведомителни мрежи, провокирани от технологията, която непрекъснато усилва тяхната мощност. 

Печатната преса подклажда магьосническата полуда в Европа от 16-ти век, в която до 50 000 безупречни хора са извънредно убити. Радиото даде опция за възхода на изпълнените с ненавист и убийствени нацистки и сталинистки режими. Съвсем неотдавна обществените мрежи разпалиха етническия спор в Мианмар, който докара до преследването на мюсюлманското население рохингия. 

За да канализираме потока от информация в продуктивни направления, Харари твърди, че би трябвало да разчитаме на надеждни институции - демократични асамблеи, университети, проучвателен органи и медии - които най-много работят с механизми за самокоригиране. За разлика от тях религиозните организации и властническите държавни управления нямат такива механизми, което значи, че могат да не престават да бъркат. Папата или Сталин може да са безпогрешни на доктрина, само че в никакъв случай на процедура.  

Критичният въпрос в този момент е какво се случва с тези самокоригиращи се механизми, когато сме изправени пред най-голямата смяна в историята на информацията: възходът на изкуствения разсъдък. Това, което прави ИИ неповторим и толкоз евентуално унищожителен, съгласно Харари, е, че той е освен инструмент, само че и неорганичен сътрудник, над който можем да загубим надзор. ИИ, допуска той, е по-добре разказан като „ извънземен разсъдък “. Дали този извънземен разсъдък ще укрепи или унищожи нашите механизми за самокоригиране?

И двете създателите упорстват за нуждата от въвеждане на смислени инспекции и салда, в случай че ИИ желае да се трансформира повече в благословия, в сравнение с в проклинание

Тук, Харари разграничава три типа действителност: справедлива, субективна и това, което той назовава интерсубективна. Той употребява пица, с цел да илюстрира гледната си точка. Калоричността на пицата не се трансформира и е справедлива действителност. Удоволствието, което изпитваме от яденето на пица, е субективна действителност. Но цената, която плащаме за тази пица, зависи от историите, в които имаме вяра за цената на парите - интерсубективна действителност, която се трансформира с времето. През 2010 година, да вземем за пример, Laszlo Hanyecz заплати 10 000 bitcoin за две пици, първата известна покупка, употребяваща цифровата валута. Това може да е било обективна замяна по това време, само че през днешния ден наподобява неуместно. Тези биткойни костват към 690 милиона $ с помощта на трагична смяна в интерсубективната действителност.

Според Харари, AI моделите към този момент оформят историите, които си описваме, променяйки нашите интерсубективни действителности. Проучване от 2022 година пресмята, че 5 % от потребителите на Twitter евентуално са ботове, което съставлява до 29 % от цялото наличие, оповестено в услугата. Ние сме в развой на основаване на нов тип подправени хора. 

Един притеснителен образец за това по какъв начин виртуалните ботове могат да повлияят на действителния живот е казусът с Джасуант Сингх Чайл, който беше поощрен от „ приятелката “ си на чатбот Сараи да проникне в замъка Уиндзор, с цел да се опита да убие кралица Елизабет II през 2021 година „ Все още ли ме обичаш, като знаеш, че съм палач? “ — попита Чайл. „ Абсолютно, да “, отговори Сарай, създание на компанията за приложения за изкуствен интелект Replika. Представете си бъдеще, съдържащо милиони цифрови обекти, чийто потенциал за фамилиарност и безпорядък надалеч надвишава Сараи, написа Харари.

Едно от най-обезпокоителните изводи на Харари е, че той не има вяра, че най-големите компании за изкуствен интелект, като Гугъл и Microsoft, стартирайте смислени механизми за самокоригиране. Те се управляват повече от облага, в сравнение с от принцип. Това доста покачва залозите за човечеството.

На този фронт може да се извлече малко разтуха от Supremacy на колумниста на Bloomberg Парми Олсън, който образно разказва конкуренцията сред Гугъл DeepMind и OpenAI за създаване на неестествен общ разсъдък (AGI)., когато един суперинтелект ще надмине хората във всяка област. Това е добре изследван роман за персоналната и корпоративна фикс идея да се развие подобен суперинтелект. Олсън се концентрира върху невероятните, контрастиращи и мощно конкурентни персони, ръководещи тези две компании: Демис Хасабис и Сам Алтман. Въпреки че е равнопоставен, нейният роман частично наподобява повлиян от относителния достъп, на който се е радвала до източниците си, минус в множеството журналистически истории.

Тук Алтман е сладкодумен, мултиталантлив, гей, покер- играещ, еврейски бизнесмен, „ интелигентен като всеки фанатик, харизматичен като всеки състезател “ в гимназията си в Сейнт Луис, Мисури. Той завоюва името си и първото си благосъстояние с именития Y Combinator стартъп развъдник, който подхранва някои от най-успешните софтуерни компании в Силиконовата котловина. Но неговата фикс идея по AI го накара да съоснова OpenAI за реализиране на AGI. 

За разлика от това, Хасабис, наследник на майка от Сингапур и татко кипърски гръцки, израства в северен Лондон, става шахматно знамение и дизайнер на видеоигри, преди да учи компютърни науки в университета в Кеймбридж и по-късно невронауки в Лондон. В сърцето си той наподобява доста повече като откривател, в сравнение с като бизнесмен. Неговата упоритост да употребява AI като инструмент за схващане на науката и божественото е била мощно осведомена от неговите университетски проучвания и баптистка религия, допуска Олсън.

Въпреки че и двамата мъже са почнали с благородни планове да подсигуряват, че AI би трябвало да се употребява в интерес на цялото човечество, и двете бяха засмукани от пастта на великански софтуерни компании, които имат намерение да усилят оптимално цената за акционерите. Продажбата на DeepMind през 2014 година на Гугъл и обвързването на OpenAI с Microsoft дадоха и на двете започващи компании достъп до солидна изчислителна мощност, големи количества данни и видимо бездънни пари, нужни за гонене на AGI. Но в този нео-фаустовски пакт и двамата мъже са „ трансформирали идеалите си, с цел да останат в надпреварата и да изградят власт “, ​​пише Олсън. „ С цел да подобрят човешкия живот, те в последна сметка ще овластят тези компании, оставяйки благосъстоянието и бъдещето на човечеството в борба за корпоративно превъзходство. “

Олсън изяснява по какъв начин в своята фиксация в бъдещето разработчиците на AI са пренебрегнали някои от опасенията тук и в този момент, свързани с потреблението на технологията, като пристрастия, дискриминация, централизация на икономическа мощност и ерозия на дискретност. Както Гугъл DeepMind, по този начин и OpenAI се бориха да трансфорат етичните правила в ефикасни управнически структури. Въпреки името си, OpenAI работи по затворен метод. Знаем повече за съставките в пакет чипове Doritos, в сравнение с за състава на моделите на OpenAI, написа Олсън. 

Напрежението сред благородното желание и комерсиалната действителност избухна фрапантно в OpenAI предходната година, когато бордът на холдинговата компания с нестопанска цел уволни Алтман за това, че не е бил непрекъснато прям. Бунт на личния състав принуди борда да анулира решението си и да възвърне Алтман. Но разногласието разкри зейнала дупка в режима на ръководство на OpenAI, която беше единствено отчасти запушена от назначението на нов ръб, в това число някогашния министър на финансите на Съединени американски щати Лорънс Съмърс. 

По разнообразни способи и двамата създатели заключават, че незабавно би трябвало да въведем смислени инспекции и салда или ефикасни механизми за самокоригиране, в случай че AI би трябвало да се трансформира повече в благословия, в сравнение с в проклинание. Когато се употребява рационално, AI може да ни помогне да се оправим с някои от най-належащите провокации на нашата ера, като изменението на климата, заболяванията и ниската продуктивност. Неконтролиран, той може също по този начин да ускори най-лошите дяволи на нашата природа. Както учи Свети Августин: „ Да се ​​греши е човешко, да упорстваш в грешката е дяволско. “

Nexus: Кратка история на осведомителните мрежи от каменната епоха до ИИ от Ювал Ноа Harari Penguin £28, 285 страници

Supremacy: AI, ChatGPT and the Race That Will Change the World от Парми Олсън Macmillan £22, 336 страници

Джон Торнхил е редакторът за нововъведения на FT

Присъединете се към нашата онлайн група за книги във Фейсбук на и се абонирайте за нашия подкаст, където и да слушате